Ollama 参数配置

1 创建模型的存储位置

Note

这里选择空间较大的目录即可,我这里是 \data 目录。

#root>
mkdir -p /data/ollama_models
chown ollama:ollama ollama_models/

2 配置 Ollama 配置

Warning

这里必须使用 edit 命令,用于产生 /etc/systemd/system/ollama.service.d/override.conf 文件以免每次升级 Ollama 时,相关被覆盖后需要重新配置。

编辑器打开后,在文件的最顶端(任何被注释掉的代码之上),添加 [Service] 块以及你需要修改的环境变量。

你可以参考以下模板进行修改:

sudo systemctl edit ollama.service
[Service]
Environment="OLLAMA_KEEP_ALIVE=-1" 
Environment="OLLAMA_MODELS=/opt/ollama_models"
Environment="OLLAMA_HOST=0.0.0.0:11434"
Environment="OLLAMA_ORIGINS=*"
Note

提示:配置完成后,保存并退出编辑器(如果是 nano,按 Ctrl+O 回车保存,Ctrl+X 退出)。

3 重载并重启服务

配置修改后,需要让系统重新读取服务文件,并重启 Ollama 服务让配置生效:

sudo systemctl daemon-reload
sudo systemctl restart ollama
sudo systemctl status ollama

4 防火墙放行

ufw allow 11434/tcp